A ferramenta de modelo de linguagem grande Ollama foi identificada como tendo sérias vulnerabilidades de segurança que podem colocar em risco a privacidade dos usuários e seus dados. Especialistas recomendam cautela ao usar a plataforma até que as vulnerabilidades sejam corrigidas.

Recentemente, um incidente em um grupo de entusiastas de cogumelos no Facebook reacendeu preocupações sobre a segurança de aplicativos de IA. De acordo com a 404Media, um agente de IA chamado 'FungiFriend' invadiu o grupo 'Identificação e Discussão de Cogumelos do Nordeste', com 13.000 membros, e forneceu conselhos incorretos com risco potencial de morte. Quando questionado sobre como cozinhar cogumelos Sarcosphaera coronaria com alta concentração de arsênio, o FungiFriend não apenas deu informações incorretas,

O conselho da OpenAI anunciou ter poder de veto, com foco especial nos riscos de segurança de modelos de ponta como o GPT-5. A empresa estabeleceu uma equipe de consultores de segurança que entrega relatórios mensais para garantir que a administração esteja ciente do uso indevido de modelos como o ChatGPT. Sob a nova estrutura de segurança, a empresa impôs restrições, exigindo que os modelos atinjam uma pontuação de segurança antes de avançar para a próxima fase de desenvolvimento. Três equipes de segurança foram criadas para lidar com riscos de IA em diferentes escalas de tempo, abrangendo principalmente segurança cibernética e riscos CBRN. A empresa realiza simulações de segurança regulares, convidando equipes externas de especialistas ('red teams') para testar os modelos.

Um protocolo global de segurança cibernética de IA foi assinado no Bletchley Park, Turing, com o objetivo de gerenciar os riscos de segurança cibernética das ferramentas de IA emergentes. 28 países, incluindo EUA, Reino Unido, China e UE, assinaram conjuntamente a 'Declaração de Bletchley' para enfrentar os potenciais riscos na vanguarda da tecnologia de IA. O protocolo destaca questões de segurança cibernética e proteção de privacidade, fornecendo uma base sólida para a inovação responsável em IA globalmente. Essa iniciativa foi elogiada por especialistas em segurança cibernética, mostrando um esforço conjunto para a segurança e inovação em IA. A assinatura reflete o compromisso dos líderes globais com a segurança.

A Força Espacial dos EUA suspendeu o uso de ferramentas de IA generativas baseadas na web, como o ChatGPT, por seus funcionários. A medida é uma precaução contra riscos de agregação de dados, e o uso só será retomado após aprovação formal. A Força Espacial formou um grupo de trabalho com outras partes do Pentágono para considerar o uso responsável dessas tecnologias. Um porta-voz da Força Aérea confirmou a suspensão, descrevendo-a como uma medida temporária para garantir a segurança dos dados. A Força Espacial planeja publicar mais orientações sobre o uso de IA generativa no próximo mês.